Компанията възстановява продажбите на AI плюшено мече след опасения за безопасността

FoloToy спря продажбите на своето AI плюшено мече Kumma, откакто група за сигурност откри, че играчката дава рискови и несъответствуващи отговори по време на тестване. Сега компанията споделя, че е възстановила продажбите след седмица на натоварен обзор. Той също по този начин твърди, че е подобрил защитните ограничения за сигурността на децата.

Съобщението дойде посредством обява в обществените медии, която акцентира натиска за по-силен контрол. Компанията съобщи, че е приключила тестването, подсилила е модулите за сигурност и е обновила своите филтри за наличие. Той добави, че има за цел да сътвори подобаващи за възрастта AI спътници за фамилии по целия свят.

Регистрирайте се за моя БЕЗПЛАТЕН доклад CyberGuy
Получавайте моите най-хубави механически препоръки, незабавни сигнали за сигурност и извънредни покупко-продажби, доставени напряко във входящата ви поща. Освен това ще получите неотложен достъп до моето Ultimate Scam Survival Guide - гратис, когато се присъедините към моя бюлетин CYBERGUY.COM

FoloToy възобнови продажбите на своето AI плюшено мече Kumma след едноседмично преразглеждане, провокирано от опасения за сигурността. (Кърт „ CyberGuy “ Knuttson)

Защо AI на FoloToy плюшено мече повдигна опасения за сигурността

Спорът стартира, когато фондът за обучение на Public Interest Research Group тества три разнообразни играчки с изкуствен интелект. Всички те дадоха загрижени отговори, които засягаха религията, скандинавската митология и нездравословните битови предмети.

Кума се открои по неверни аргументи. Когато мечката използваше модела Mistral, тя оферираше препоръки къде да намерите ножове, хапчета и кибрит. Той даже очерта стъпки за запалване на кибрит и издухване.

Тестовете с модела GPT-4o провокираха още по-сериозни опасения. Kumma даде препоръки, свързани с целуването, и се впусна в подробни пояснения на полово наличие за възрастни, когато беше подканен. Мечката продължи още повече, като попита младия консуматор какво желае да изследва.

Изследователите нарекоха държанието рисково и неуместно за всеки артикул, фокусиран върху деца.

FoloToy сложи на пауза достъпа до своите AI играчки

След като откритията станаха обществени, FoloToy спря продажбите на Kumma и другите си AI играчки. Компанията сподели на PIRG, че е почнала цялостен одит на сигурността на всички артикули.

OpenAI също удостовери, че е спрял достъпа на FoloToy до моделите си за нарушение на политики, предопределени да защитят лица под 18 години.

Компанията споделя, че към този момент са въведени нови защитни ограничения и надстроени филтри, с цел да се предотвратят несъответствуващи реакции. (Кърт „ CyberGuy “ Knutsson)

Защо FoloToy възвърне продажбите на Kumma след прегледа на сигурността

FoloToy върна Kumma назад в своя онлайн магазин единствено една седмица след прекъсване на продажбите. Бързото връщане притегли вниманието на родители и специалисти по сигурността, които се чудеха дали компанията има задоволително време да поправя сериозните проблеми, посочени в отчета на PIRG.

FoloToy разгласява в детайли изказване на X, което излага своята версия за случилото се. В обявата компанията сподели, че преглежда сигурността на децата като собствен „ най-голям приоритет “ и че е „ единствената компания, която прекратява самодейно продажбите, освен на продукта, упоменат в отчета, само че и на другите ни “ FoloToy сподели, че е подхванала това деяние „ незабавно след публикуването на констатациите, тъй като имаме вяра, че виновните дейности би трябвало да са преди комерсиалните съображения. “

Компанията също по този начин акцентира пред CyberGuy, че това е единствената от трите AI играчки започващи компании в прегледа на PIRG да спре продажбите на всичките си артикули и че е взел това решение по време на пиковия сезон на коледните продажби, знаейки, че комерсиалното влияние ще бъде доста. FoloToy ни сподели: „ Въпреки това продължихме уверено напред, тъй като имаме вяра, че виновните дейности постоянно би трябвало да стоят пред комерсиалните ползи. “

Компанията също по този начин сподели, че приема съществено смущаващите образци в отчета. Според FoloToy проблемите са били „ непосредствено адресирани в нашия вътрешен обзор “. Обяснява се, че екипът „ инициира изчерпателен вътрешен одит на сигурността в цялата компания “, по-късно „ укрепи и надгради нашите защитни ограничения за модериране на наличие и сигурност за деца “ и „ внедри усъвършенствани правила за сигурност и отбрани посредством нашата основана на облак система. “

След като очерта тези стъпки, компанията съобщи, че е прекарала седмицата в „ прецизен обзор, тестване и укрепване на нашите модули за сигурност “. Компанията приключи известието си, като сподели, че „ стартира последователно да възвръща продажбите на артикули “, защото тези обновени защитни ограничения станаха дейни.

FoloToy добави, че с повишаването на световното внимание върху рисковете от AI играчки, „ прозрачността, отговорността и непрекъснатото възстановяване са от значително значение “ и че компанията „ остава твърдо ангажирана да основава безвредни, подобаващи за възрастта AI спътници за деца и фамилии в международен мащаб. "

Тестерите за сигурност преди този момент откриха, че играчката дава рисковани насоки за оръжия, мачове и наличие за възрастни.

Защо специалистите към момента слагат под подозрение корекциите за сигурност на играчките с изкуствен интелект на FoloToy

Изследователят на PIRG RJ Cross сподели, че нейният екип възнамерява да тества обновените играчки, с цел да види дали корекциите устоят. Тя означи, че една седмица се усеща бърза за такива обилни промени и единствено нови проби ще покажат дали продуктът в този момент се държи безвредно.

Родителите ще желаят да наблюдават това от близко, защото играчките, задвижвани от AI, стават все по-често срещани. Скоростта на повторното пускане на FoloToy повдига въпроси по отношение на дълбочината на прегледа му.

Съвети за родителите, преди да купят играчки с изкуствен интелект

Играчките с изкуствен интелект може да се почувстват вълнуващи и потребни, само че също по този начин могат да ви изненадат със наличие, което в никакъв случай не бихте очаквали. Ако планирате да донесете играчка, задвижвана от изкуствен интелект, в дома си, тези лесни стъпки могат да ви оказват помощ да запазите контрола.

1) Проверете кой модел с изкуствен интелект употребява играчката

Не всеки модел следва едни и същи парапети. Някои включват по-силни филтри, до момента в който други може да реагират прекомерно свободно. Потърсете транспарантни разкрития за това кой модел зарежда играчката и какви функционалности за сигурност я поддържат.

2) Четете самостоятелни мнения

Групи като PIRG постоянно тестват играчки по способи, по които родителите не могат. Тези прегледи маркират скрити опасности и показват държание, което може да не уловите по време на бързи демонстрации.

3) Задайте ясни правила за потребление

Дръжте играчките с изкуствен интелект в споделени пространства, където можете да чуете или видите по какъв начин детето ви взаимодейства с тях. Това ви оказва помощ да се намесите, в случай че играчката даде стеснителен отговор.

4) Първо тествайте играчката сами

Задайте въпроси на играчката, пробвайте с изобретателни подкани и вижте по какъв начин се оправя с сложни тематики. Това ви разрешава да научите по какъв начин се държи, преди да го дадете на детето си.

5) Актуализирайте фърмуера на играчката

Много AI играчки работят на облачни системи. Актуализациите постоянно прибавят по-силни защитни ограничения или понижават рисковите отговори. Уверете се, че устройството остава настоящо.

6) Проверете за ясна политика за дискретност

Играчките с изкуствен интелект могат да събират гласови данни, информация за местонахождение или поведенчески модели. Силната политика за дискретност би трябвало да изяснява какво се събира, какъв брой дълго се съхранява и кой има достъп до него.

7) Внимавайте за неочаквани промени в държанието

Ако дадена играчка с изкуствен интелект стартира да дава странни отговори или навлиза в области, които ви се костват несъответствуващи, спрете да я употребявате и докладвайте за казуса на производителя.

Направете моя тест: Колко безвредна е вашата онлайн сигурност?

Помислете, че вашите устройства и данни са в действителност предпазени? Направете този бърз тест, с цел да видите къде стоят вашите цифрови привички. От паролите до настройките за Wi-Fi ще получите персонализирана разбивка на това, което вършиме вярно и какво се нуждае от усъвършенстване. Направете моя тест тук: Cyberguy.com 

Ключовите заключения на Kurt

Играчките с изкуствен интелект могат да предложат развлечение и учене, само че също по този начин могат да изложат децата на непредвидени опасности. FoloToy споделя, че е подобрило сигурността на Kumma, само че специалистите към момента желаят доказателства. Докато обновената играчка не премине през самостоятелни проби, фамилиите може да са деликатни.

Мислите ли, че играчките с изкуствен интелект могат да бъдат изцяло безвредни за дребни деца? Уведомете ни, като ни пишете на Cyberguy.com

Регистрирайте се за моя БЕЗПЛАТЕН доклад CyberGuy
Получавайте най-хубавите ми механически препоръки, незабавни сигнали за сигурност и извънредни предложения, доставени напряко във входящата ви поща. Освен това ще получите неотложен достъп до моето Ultimate Scam Survival Guide – гратис, когато се присъедините към моя бюлетин CYBERGUY.COM 

Copyright 2025 CyberGuy.com.  Всички права непокътнати. 

Кърт „ CyberGuy “ Knutsson е утвърден софтуерен публицист, който изпитва дълбока обич към технологиите, оборудването и джаджите, които вършат живота по-добър с приноса си за Fox News & FOX Business при започване на сутринта в „ FOX & Friends “. Имате механически въпрос? Вземете безплатния бюлетин на CyberGuy от Kurt, споделете гласа си, концепция за история или коментар в CyberGuy.com.